跳到主要内容

MUSA SDK v4.3.10 发布版本信息

下载链接​

MTT S5000​

  • 下载链接
  • 支持操作系统:
    • Alibaba Cloud Linux 3
    • VesselOS 2.0 (LTS-SP2)
    • Kylin Linux Advanced Server V10
    • Ubuntu 22.04.4 LTS

发布说明​

MUSA SDK v4.3.10 版本基于 MUSA SDK 4.3.0 分支进行功能迭代和问题修复,在 4.3.8 基础上增强驱动热插拔与运行稳定性、XID/EDC 主动运维上报、CE Batch 与 External Memory 等运行时能力,并完善 FlashAttention / muDNN 数值正确性以及 DeepEP / MCCL 通信配套,现已正式发布。

本版本已完成多平台发布测试。模型训练与推理功能验证通过,性能达标。部分专项测试存在已知问题,评估为不影响本次版本发布,作为 Open Issue 后续跟踪。

建议将本版本驱动、MUSA SDK 与 MTML 2.3.7、DCGM 1.1.8 及配套 muDNN、MCCL 成套部署。与其他大版本驱动或管理组件混用前,请先完成兼容性验证。

具体支持平台详见下方列表。

支持平台​

MTT S5000支持平台​

CPUOS内核版本MUSA SDK包
IntelAlibaba Cloud Linux 35.10.134-13.al8.x86_64RPM
VesselOS 2.0 (LTS-SP2)6.6.0-100.jd_b007.x86_64RPM
Ubuntu 22.04.4 LTS5.15.0-105-genericDEB
AMDUbuntu 22.04.4 LTS5.15.0-105-genericDEB
HygonKylin Linux Advanced Server V10 (Halberd)4.19.90-89.11.v2401.ky10.x86_64RPM
Ubuntu 22.04.4 LTS5.15.0-105-genericDEB

产品说明​

摩尔线程 MUSA SDK 是一套完整的 GPU 并行计算开发环境,专为利用摩尔线程 GPU 加速程序而设计。通过 MUSA SDK,您能够轻松地利用 GPU 加速各种应用,涵盖企业数据中心、桌面、工作站以及云平台和超级计算机等多个领域。该套件包括了 GPU 加速库、调试和优化工具、C/C++编译器以及用于应用程序部署的运行时库等功能。作为一套完整的开发工具,MUSA SDK 包含了以下主要组件:

  • MUSA Toolkits,包含底层编译器、MUSA 运行时库、Musify 工具以及MUSA-X 基础数学计算加速库
  • muDNN,MT GPU 深度学习加速库
  • MCCL,MT GPU 通信加速库
  • MUSA SDK 依赖于摩尔线程 GPU 和摩尔线程 GPU 通用驱动程序
  • MT GPU:MTT S5000, MTT S4000,MTT S3000,MTT S80, MTT X300 等
  • 通用驱动软件

功能描述​

  • 支持 SIMT 架构并行编程模型
  • 提供 mcc 编译器工具链
  • MUSA 驱动与运行时库
  • 摩尔线程 MUSA 数学库 (muBLAS, muFFT, muPP, muRAND)
  • MCCL 通信库 (支持多 GPU 和多节点通信,优化 PCIe 和 MTLink 互联)
  • muDNN 深度学习加速库

主要更新​

功能更新(Feature Updates)​

  • 运行时与驱动优化(Driver/Runtime & KMD)

    • 支持 CE Batch 接口 muMemoryTransferBatchAsync、muMemoryAtomicBatchAsync,提升多通信原语并发场景的稳定性
    • 支持 External Memory 导入与映射接口:muImportExternalMemory、muExternalMemoryGetMappedBuffer、muDestroyExternalMemory
    • 增强 mtlink 初始化失败时的自动重试,并改善端口连接稳定性
    • 修复 PCIe 热移除、掉卡恢复、Link Disable 热插拔以及驱动卸载场景下的稳定性问题
    • 修复调试接口访问、固件 trace 读取及部分故障场景下的内核异常
    • 修复训练过程中掉卡后可能引发的主机异常
    • 修复容器正常退出后 GPU 显存无法自动释放的问题
    • 修复 ACE 显存泄漏,以及虚拟内存同一 handle 多次映射、peer access 后释放不完整的问题
    • 对齐虚拟内存分配句柄配对释放的返回码语义
    • 修正设备出错后后续任务下发的返回值
    • 完善 S5000 JPEG 解码能力,支撑包含图片解码的推理场景
    • 修正 SDK 与 libmusa 版本号显示
  • 通信能力增强(MCCL & DeepEP)

    • MCCL 支持 all-reduce tree 算法,降低大规模集合通信场景的延迟
    • 支持在容器内自动查找 GID
    • 修复 DeepEP 超时配置不一致与 Buffer 构造失败的问题
    • 修复 DeepEP low-latency 场景下的多卡异常与超时问题
    • 修复 MTSHMEM 性能测试失败,并改善双机集合通信的性能波动
    • Triton-MUSA 与 DeepEP 提供 Python 3.12 安装包
  • 算子与框架支持增强(muDNN & FlashAttention)

    • 修复 FlashAttention Varlen 反向在合法输入下的越界问题,以及跨段数据串扰导致的 Inf/NaN
    • 修复 GQA Dropout 反向结果不一致,以及 GQA headdim=256 反向精度问题
    • 修复较大 batch 下 SDPA 出现 NaN,以及 logsumexp 为空时在较大 head dim 下的异常
    • 修复 deterministic 结果不一致、相同输入多次计算结果不一致,以及 dropout / mask 相关问题
    • 修复 softmax logsumexp 在特定 shape 下归约挂起的问题
    • 对齐 elementwise 特殊值与 IEEE / PyTorch 语义,修复相同数值相除结果错误的问题
    • 修复带索引归约、AND/OR 归约语义、RMSNorm 反向 bf16 精度、logf 负次正规数及除法 FMA 相关问题
    • 合入卷积优化与 GEMM TF32 round mode
    • 修复部分场景下 muDNN 导致的模型耗时增加,以及其他 stream 上设置 event 影响 group GEMM 正确性的问题
  • 推理与训练性能

    • 修复 DeepSeek 推理与训练、MCCL alltoall 等相对 4.3.8 的性能回退
  • 数学库与工具链

    • 修复 muBLAS 部分接口计算结果错误的问题
    • 修复 muFFT、muRAND 等相关计算异常
    • 修复 muThrust、MUTLASS 编译问题
    • 修复 moduleLoadFatbin 偶发挂起
    • 修复多流性能测试异常退出
  • 监控与运维工具增强(DCGM/GMI/MTML)

    • EDC Error 支持以 XID 形式主动上报,便于及时判断 GPU 健康状态
    • BUS ERROR 按 AXI Timeout、SlaveErr、DecodeErr 区分为 BUS_TIMEOUT、BUS_CORRUPT、BUS_DENIED,并完善对应 XID 信息
    • GPU 总线掉线通过 submission last error 上报,并完善固件挂起(FW_HANG)错误类型上报
    • 支持 D2D 链路降速场景的 XID 上报
    • 调试转储中的 CE 异常按 EXCEPTION 与 PAGEFAULT 分类解析;设备异常前可导出当前设备页表,便于挂起与故障定位
    • musaProfilerStart / musaProfilerStop 的能力声明与实际支持对齐,并修复特权容器下 MUPTI 异常
    • 修复 mthreads-gmi 复位可能引发设备异常重启,以及 GMI 查询挂起的问题
    • 本版本配套 MTML 2.3.7、DCGM 1.1.8

产品组件说明​

具体包名称与版本信息请以开发者官网对应版本下载页为准。